Objets connectés et guerre de l’information...

Nous reproduisons ci-dessous un point de vue de François-Bernard Huyghe, cueilli sur son site Huyghe.fr et consacré aux menaces que font peser les réseaux d'objets connectés qui nous entourent. Spécialiste de la guerre de l'information, François Bernard Huyghe, auteur de nombreux livres, a récemment publié La désinformation - Les armes du faux (Armand Colin, 2015), Daech : l'arme de la communication dévoilée (VA Press, 2017) et Fake news - La grande peur (VA Press, 2018).

Objets connectés et guerre de l’information

Les objets connectés - des estimations nous en promettent 30 milliards pour 2020 - posent d’évidents problèmes de sécurité (qui ont fait l’objet d’un passionnant colloque de la FRS le 15 mai). Un objet connecté réunit quatre caractéristiques particulières, tout en continuant à remplir ses anciennes fonctions triviales (transporter, mesurer, chauffer, recouvrir, etc.) :
- Il capte des informations (qui sont à la fois des données susceptibles d’être stockées et traitées, et des « nouvelles » en ce sens qu’elles reflètent des changements instantanés.
- Il traite ces informations en fonction d’algorithmes (ou elles sont traitées par le système auquel il est relié) ; il se livre donc à des opérations de calcul qui se formulent souvent comme des propositions adressées à un être humain (qu’il s’agisse d’aller acheter du lait ou de diminuer son rythme de course).
- Il fait ou il prend des décisions comme de changer un réglage.
- Il communique, puisqu’il est en relation avec Internet donc potentiellement avec un univers de traitement et diffusion d’une quantité inimaginable de données.

Ces caractéristiques sont à évaluer en fonction des trois types de stratégies offensives que permet ou que favorise le numérique : acquisition de données confidentielles d’une victime (espionnage ou surveillance), perturbation de systèmes ciblés (sabotage, paralysie...) et enfin action sur le cerveau humain et sur ses croyances (illusions,propagande, manipulation...).

Si nous tentons maintenant de croiser les deux grilles, nous devons tenir compte que les objets connectés, du fait de leur conception, de leur faible prix, de leur nouveauté, de leur modestie apparente, etc sont a priori moins bien sécurisés ou font l’objet de moins de précautions que des ordinateurs, par exemple, dont tout le monde pense qu’ils peuvent faire l’objet de cyberattaques.

Les objets connectés recueillent des données sur eux-mêmes (identifiant, géolocalisation), sur leur environnement et parfois sur les êtres humains qui les utilisent. On connaît des exemples où les objets connectés, mal sécurisés, ayant un mot passe faible, etc., se sont révélés le maillon le plus faible et ont permis d’accéder aux données d’un système beaucoup plus vaste Ainsi un simple thermomètre d’aquarium a permis de pirater les données confidentielles d’un casino. Ou encore, pour prendre un exemple de piratage, en octobre 2017, des réseaux d’objets connectés (caméras, téléviseurs) ont servi à pervertir (par une sorte de déni d’accès, en la surchargeant de demandes incessantes) la société américaine Dyn qui redirige des requêtes, puis par extension, ils ont pu rendre inaccessibles quelques heures des services comme Amazon, eBay, Airnb, Paypal, etc.

À partir de là, il n’y a plus qu’à laisser aller son imagination pour décrire les vols d’information ou les sabotages les plus sophistiqués passant par un frigidaire, un téléphone, une montre et demain une boîte de conserve ou un maillot. Un excellent roman policier comme « Tension extrême » de Sylvain Forge raconte ce que ferait un fou d’informatique faisant exploser des Pacemakers, paralysant les forces de police d’une ville, etc. À vous de fantasmer sur ce que réaliserait une puissance étatique ou un groupe mafieux qui prendrait le contrôle de toutes les bicyclettes d’une métropole, la priverait de transports ou saurait tout de la sexualité et de la santé des dirigeants de la planète par leur rasoir ou leur équipement de jogging. Si votre voiture ou votre fusil ne vous obéissait plus ? Si un bijou en disait plus sur vous qu’un micro ? Etc.

Mais la dimension la plus intrigante est celle de l’action sur l’esprit : un objet trivial peut-il agir sur nos affects, voire sur nos comportements, sur le fonctionnement de l’opinion, voire de la démocratie ? Jusqu’à présent cela s’est fait par des médias au sens large, c’est-à-dire par des dispositifs faits explicitement pour délivrer des messages à nos cerveau. De la projection du cuirassé Potemkine sur écran géant à la rumeur que vous transmet votre compte Facebook.
Forcément quelqu’un a ou va penser à une stratégie d’action sur le cerveau humain par les objets connectés. Nous n’en sommes qu’au tout début, mais on peut déjà esquisser trois types de scénarios.
Le premier est évidemment « à la Big Brother » : la suraccumulation de données sur les citoyens par un pouvoir centralisé. Suivant une information récente la Chine a commencé à doter certains ouvriers de casquette connectées qui détecteraient les ondes cérébrales, le stress, l’état émotif. À partir du moment où une technologie sait qui vous êtes, où vous êtes, avec qui vous êtes en relation, ce que vous faites, mais aussi ce que vous ressentez, il n’y a évidemment pas de limite au contrôle politique de la population.
Le second scénario suppose plus subtilement que les données soient collectées discrètement, traitées massivement par l’intelligence artificielle, employées à nous profiler donc à nous prédire et que cela se traduise non pas par la répression des mauvais sujets, mais plus subtilement par une politique de l’attente et du désir. Après tout, les Gafa passent déjà leur temps à nous proposer le livre, le restaurant ou les vacances qui nous conviennent et à répondre à la question unique que nous pensions porter secrètement en nous : j’ai envie de... Le scandale Cambridge Analytica a montré comment une proposition politique pouvait nous être adressée de la façon la plus personnalisée pour nous suggérer de voter X ou Y en fonction de nos habitudes, de nos préjugés, de nos appartenances, voire de nos traits de caractère. Le stade suivant serait la prédiction par notre environnement le plus familier d’incitations parfaitement adaptées : obéissant aux calculs d’un algorithme, y compris en politique, nous aurions la sensation de n’obéir qu’à nous-mêmes et à nos pulsions les plus secrètes.
Un pas plus loin : peut-on imaginer des dispositifs qui joueraient sur nos perceptions, nos lunettes, nos téléphones, et nous prédisposeraient à tel ou tel comportement ? Nous n’avons pas encre réussi à imaginer un scénario où une puissance occulte déclencherait des émeutes ou ferait voter machin en envoyant des virus à des frigidaires, des montres ou des vélos, mais soyons certains d’une : il y a forcément quelqu’un qui va y penser un jour où l’autre. Toutes les potentialités négatives de l’objet trouveront tôt ou tard une exploitation stratégique. Raison de plus pour commencer dès maintenant à penser les vulnérabilités du banal.

François-Bernard Huyghe (Huyghe.fr, 21 mai 2018)

Xavier Raufer : « Dans le monde du numérique, tout est falsifiable ! » ...

Vous pouvez découvrir ci-dessous un entretien avec Xavier Raufer réalisé le 21 mars 2018 pour Boulevard Voltaire, et consacré au piratage des données de cinquante millions d’utilisateurs Facebook par la société Cambridge Analytica au profit de la campagne électorale de Donald Trump. Criminologue et auteurs de nombreux essais, Xavier Raufer a récemment publié Les nouveaux dangers planétaires (CNRS, 2012) et Criminologie - La dimension stratégique et géopolitique (Eska, 2014) et a également coordonné l'ouvrage collectif intitulé La première cyber-guerre mondiale ? (Eska, 2015).

 

                               

Tour d'horizon... (137)

 

Au sommaire cette semaine :

- sur la lettre de Comes Communication, Bruno Racouchot interroge Jean-Vincent Holeindre sur le retour en force de la ruse comme outil stratégique...

L'éternel pouvoir de l'intelligence : la guerre entre ruse et force

- sur le site de la Revue de défense nationale, Philippe Delalande analyse le projet politique que Xi Jinping a développé devant le dernier congrès du parti communiste chinois...

Les dangers du rêve chinois de Xi Jinping

- sur La Voie de l'épée, Michel Goya met en garde contre les illusions du « gouvernement par les données »...

Datapocalypse - Big data et guerre du Vietnam

La dictature invisible du numérique...

Les édition Plon et Robert Laffont viennent de publier un essai signé par Marc Dugain et Christophe Labbé et intitulé L'homme nu - La dictature invisible du numérique. Marc Dugain est romancier et Christophe Labbé journaliste au Point, spécialiste des questions de police et de justice.

 

" On les appelle les Big Datas. Google, Apple, Facebook ou Amazon, ces géants du numérique, qui aspirent à travers Internet, smartphones et objets connectés, des milliards de données sur nos vies.
Derrière cet espionnage, dont on mesure chaque jour l'ampleur, on découvre qu'il existe un pacte secret scellé par les Big Datas avec l'appareil de renseignement le plus puissant de la planète. Cet accouplement entre les agences américaines et les conglomérats du numérique, est en train d'enfanter une entité d'un genre nouveau. Une puissance mutante, ensemencée par la mondialisation, qui ambitionne ni plus ni moins de reformater l'Humanité.
La prise de contrôle de nos existences s'opère au profit d'une nouvelle oligarchie mondiale. Pour les Big data, la démocratie est obsolète, tout comme ses valeurs universelles. C'est une nouvelle dictature qui nous menace. Une Big Mother bien plus terrifiante encore que Big Brother.
Si nous laissons faire nous serons demain des " hommes nus ", sans mémoire, programmés, sous surveillance. Il est temps d'agir. "

Big Data is watching you !...

Nous reproduisons ci-dessous un article de René Lebras, cueilli sur Idiocratie et consacré à la numérisation envahissante du monde qui nous entoure et de nos vies, qui a été initialement publié dans la revue Éléments.

 

 

Big Data is watching you !

« Datafication », « algorithme », « indexation », « protocole », « computation », « interopérabilité », « dispositif », etc. le champ lexical de la raison numérique dessine à lui seul les motifs du monde à venir : désespérément plat, entièrement régulé et profondément inhumain. Les professionnels de l’économie se sont déjà rués sur ce phénomène pour vanter à qui mieux mieux les bienfaits de la numérisation intégrale. Précisément, cette révolution technologique majeure dont on peine encore à prendre la mesure se traduit par un flux continu de données (bigdata) récoltées et analysées par des instances de tous ordres en fonction de dispositifs et de protocoles convergents. Elle contribue à instaurer « un rapport au réel placé sous le sceau de la puissance objectivante et non ambiguë des mathématiques et des nombres [1] ».

La promesse du numérique consiste donc à enfermer toutes les strates de l’existence dans des codes binaires (algorithmes) gérés par des machines surpuissantes, seules à mêmes d’assurer le bonheur compartimenté et sécurisé dont semble rêver le nouvel homme connecté. Concrètement, le processus est déjà bien amorcé avec la constitution de gigantesques banques de données (datacenter), l’incorporation massive de capteurs au sein de surfaces toujours plus étendues du réel et la dissémination de puces dans une multitude de produits quotidiens (robots, emballages, médicaments, etc.). Demain, les nanocapteurs pourront recouvrir quasiment toutes les surfaces sous forme de peintures ou de pellicules apposées sur des machines, des automobiles, des immeubles, des ponts, etc. A cela s’ajouteront les micropuces, dont sont déjà pourvus les animaux de batteries industrielles, qui s’incrusteront dans nos prothèses, nos organes et nos cerveaux. Cette « technicisation achevée de la nature » n’est pas un scénario de science-fiction, mais bien le programme établi par l’évolution « naturelle » des technologies numériques.

Cette évolution commence d’ailleurs à produire ses effets sur des segments entiers des activités humaines. Ainsi, les usines globales multi-localisées (connected factory) soumettent leurs personnels et leurs machines à des équations algorithmiques qui visent à la plus haute optimisation et à la plus grande flexibilité du travail. À chaque fois, il s’agit de traiter une myriade de sources informationnelles (flux, stocks, horaires, commandes, etc.) le plus rapidement possible et de façon synchronisée grâce à des techniques computationnelles très élaborées (supercalculateurs). Le processus a également fortement impacté le monde de la médecine avec la mise en place d’un véritable « biohygiénisme algorithmique ». Eric Sadin nous apprend, par exemple, que le logiciel HealthMap (analyse des données en provenance de l’OMS) a permis de détecter une épidémie de choléra en Haïti avec près de deux semaines d’avance sur les observations menées par les autorités qualifiées sur place. On l’aura compris, cette nouvelle médecine se fonde sur une évaluation continuelle des données dans le but d’aboutir à des traitements prédictifs individualisés en lien, notamment, avec le développement de la génétique. On sait que l’actrice Angelina Jolie a subi une double mastectomie (ablation des deux seins) puis s’est fait retirer les ovaires et les trompes de Fallope au seul titre de la prévention. Suite à des tests génétiques, les médecins avaient effectivement diagnostiqué un risque de cancer au vu de ses antécédents familiaux.

Les dispositifs numériques envahissent également de nombreux autres espaces de la vie quotidienne : qui n’a pas vu, en se promenant sur les grandes artères des centres urbains, une multitude de boîtiers, d’antennes, de caméras ? L’avenir est au smart cities, ces villes intelligentes qui capturent vos traits, identifient vos trajets et mesure la qualité de l’air afin de sécuriser l’environnement et de fluidifier le trafic. La même intrusion est encore davantage à l’œuvre pour tout ce qui concerne la navigation sur la toile internet. Partout, l’utilisateur laisse des traces numériques qui, traitées par des algorithmes, sont redirigées vers des entreprises privées quand elles ne sont pas enregistrées dans des régimes de surveillance généralisée. Là encore, il ne s’agit pas de science fiction : Edward Snowden est actuellement « exilé » en Russie pour avoir dénoncer plusieurs programmes gouvernementaux de surveillance qui travaillaient en bonne entente avec les grands opérateurs privés d’internet ! Ce fichage quantitatif et intégral de la réalité (les choses, les espaces, les hommes) produit évidemment des conséquences sur les représentations du monde.
Au plan épistémologique, le processus de numérisation débouche sur un nouveau mode de connaissance, le « savoir corrélatif computationnel », qui remet en cause tous les principes de la science occidentale telle qu’ils ont été posés par Aristote. Davantage encore, c’est tout simplement l’homme qui est expulsé d’un processus de connaissance (dévoilement du réel) dont il est pourtant l’origine et la fin. Ainsi, l’observation des faits s’efface devant la masse des données comme la validation par l’expérience laisse la place à un « régime d’interopérabilité universel », autrement dit à la mise en relation quasiment inépuisable d’une infinité de sources. Il importe moins, au final, de découvrir les lois générales des phénomènes que d’établir des liaisons entre des variables sans explication causale. D’où une virtualisation complète du réel qui s’efface au profit d’une mise en boucle des flux de réalité ; ces mêmes flux faisant l’objet d’une codification intégrale à partir de calculs sériés (statistiques). La principale conséquence reste cependant l’obstruction de toute ligne de fuite dans le réel, ce que l’on pourrait interpréter comme la disparition de la variable proprement humaine, imprévisible, intempestive, anarchique, dans l’appareillage systémique du monde. Il n’existe donc plus de jeu (ou encore de vide) dans la toile de l’existence, ce qui constituait auparavant l’écart nécessaire au libre déploiement de la liberté.

Au plan historique, le numérique s’inscrit naturellement dans le processus de rationalisation observé par Weber à cette disposition près qu’il en accélère encore le mouvement. Ce n’est plus la raison instrumentale qui maîtrise la nature mais les machines calculantes qui découpent le réel en codes binaires, et ce, afin de satisfaire l’autre dynamique essentielle à la modernité : l’individualisation. Aussi étonnant que cela puisse paraître, l’expression de soi se manifeste désormais « à l’intérieur d’un cadre majoritaire qui la codifie, l’excite et l’oriente de façon imperceptible ou non immédiatement consciente [2] ». Cette personnalisation de masse est à mettre en rapport avec l’essor d’un capitalisme cognitif qui dispose aujourd’hui des moyens de faire du « sur-mesure algorithmique ». Ainsi, les principaux acteurs du champ numérique (dominé par Google) ont établi de gigantesques banques de données que se sont partagées les firmes multinationales avant de mettre elles-mêmes en place leurs propres procédures de ciblage et de profilage de la clientèle. Dans ce contexte, la consommation devient un mode de vie à part entière puisqu’elle constitue l’une des principales formes de l’expression de soi – quand bien même elle n’est que le reflet du vide existentiel d’une société atomisée.

Au plan politique, la numérisation se traduit d’ailleurs par un data-panoptisme entretenu et exploité par les citoyens eux-mêmes. L’aménagement de sphères privées, qui étaient conçue comme la contrepartie nécessaire à la socialité chez les Grecs, tend à se dissoudre dans la mise en scène de toutes les existences particulières – Facebook étant le symptôme de cette maladie égotique. Plus largement, l’action publique répond à de strictes logiques utilitaristes, une nouvelle fois dépendantes des régulations algorithmiques, que la forme démocratique tend à recouvrir d’un voile de légitimité. En vérité, le domaine de la loi, là où s’exprime normalement la souveraineté populaire, tend à se restreindre au profit de la norme et des dispositifs qui la mettent en œuvre. Il s’agit moins de choisir et de sanctionner que d’encadrer et d’inciter les comportements dits « citoyens ». Le choix démocratique s’efface devant l’ingénierie sociale comme l’élu politique s’en remet aux impératifs technocratiques. La question des « migrants » ne doit par exemple pas faire l’objet d’un débat public, suivi d’une décision politique, mais d’un traitement purement technique avec la mise en place de protocoles d’identification, de ventilation et d’intégration des populations « migrantes ». Le règlement de la dette grecque poursuit le même mode opératoire : la troïka (en lien avec le FMI) définit les clauses nécessaires à l’obtention de prêts tandis que le gouvernement grec se charge de les traduire sous forme de programmes chiffrés, évalués et sans cesse renouvelés (sous conditions).

En définitive, la prégnance et l’emprise des techniques numériques marquent en profondeur toutes les strates de la vie sociale. C’est sans doute la dimension la plus fondamentale d’une révolution qui ne dit pas son nom. Elle finit par enfermer chaque individu dans une cage de verre à travers laquelle les reflets de la multitude lui interdisent de se penser comme à la fois une entité unique et un être collectif. « D’où a-t-il tant d’yeux qui vous épient, si ce n’est de vous ? » remarquait La Boétie [3]. On en revient à la part de jeu, et à la nécessité du secret, qui doivent s’intercaler dans toutes les relations sociales sous peine d’accoucher d’un système sans aspérités, uniforme et totalisant. « Car nous n’avons pas ici affaire, prévient Eric Sadin, à un totalitarisme, entendu comme un mode autoritaire et coercitif de l’exercice du pouvoir, mais à une sorte de pacte tacite ou explicite qui lie, à priori librement, les individus à des myriades d’entités chargées de les assister, suivant une continuité temporelle et une puissance d’infléchissement qui prend une forme toujours plus totalisante » [4]. Ainsi, chacun en vivant pour soi-même et par soi-même finit-il par abandonner le monde commun qui imprimait justement à l’être cette étrangeté première, originelle, sans laquelle il ne peut y avoir d’altérité.

Face à ce constat particulièrement sombre, l’auteur dessine les contours d’une politique et d’une éthique de la raison numérique qui nous semble quelque peu naïve par rapport aux problématiques soulevées. Dans une rhétorique proche de la gauche critique, ce plan consiste à redonner le pouvoir aux citoyens à travers la création d’institutions réellement démocratiques : un Parlement mondial des données (comme Bruno Latour a pu parler d’un Parlement des choses [5]), une gouvernance de l’Internet, une éducation au numérique, etc. Ces mesures s’inscriraient dans une éthique élargie dont les contours paraissent également bien générales : défense de la liberté, sauvegarde de la vie privée, préservation du commun, etc. A vrai dire, Eric Sadin nous semble plus convaincant lorsqu’il envisage la création de « politiques de nous-mêmes » (Foucault) avec la production d’un contre-imaginaire, le développement de temporalités divergentes et l’utilisation alternative du numérique. Sans ce type de politiques, dont il convient de souligner la part utopique, l’homme se laissera aller à l’un de ses instincts les plus profonds, et les plus dangereux : celui de vouloir optimiser la vie pour en faire une donnée extérieure à lui-même. Avec l’aide des algorithmes, il semble bien que ce « miracle » soit désormais à sa portée : résoudre l’équation humaine et en finir avec la vie – telle que nous la connaissons aujourd’hui, dans notre espèce. 

René Lebras (Idiocratie, 30 octobre 2015)
 

Notes :

1] Eric Sadin, La vie algorithmique. Critique de la raison numérique, Paris, Editions L’Echappée, 2015, p. 34. L’ensemble de l’article se fonde sur cet excellent ouvrage, particulièrement instructif et suffisamment abordable pour que tout le monde puisse s’interroger sur cette révolution silencieuse, déjà largement amorcée.
[2] Op. cit., p. 135.
[3] Opportunément cité par Eric Sadin. 
[4] Op. cit., p. 173
[5] Notons que cette idée se situe dans le droit fil de la logique technophile et consiste à rabaisser l’homme au niveau des instruments qu’il utilise et dont il devient en quelque sorte le simple prolongement humain. On peut imaginer, dans le même sens, qu’un Parlement des données numériques finirait par effacer la nature humaine au profit des algorithmes qui la définissent. 
 
 
 

Le mirage numérique...

Les éditions Les prairies ordinaires viennent de publier un essai de Evgeny Morozov intitulé Le mirage numérique - Pour une politique des big data. Chercheur et essayiste, Evgeny Morozov étudie les conséquences sociales et politiques des nouvelles technologies. Il est l'auteur de Pour tout résoudre, cliquez ici (Fyp, 2015).

 

" Avec l'Internet des objets et les big data, qui reposent sur la collecte et le partage de données en temps réel, une poignée d'entreprises californiennes promet de nous offrir abondance, prospérité, émancipation. Mais à quel prix ? L'affaire Snowden, qui a révélé le système de surveillance planétaire mis en place par le gouvernement américain avec la complicité de la Silicon Valley, ne fut en réalité qu'un symptôme.

Dans ce livre incisif, Evgeny Morozov nous invite à résister à ce qu'il appelle le "solutionnisme", croyance largement partagée, des hackers aux makers, en passant bien sûr par les couloirs de la Maison blanche : la tendance à voir dans la technologie numérique une panacée universelle, qui résoudra tous nos problèmes, des plus banals (trouver un restaurant) aux plus complexes (éradiquer la pauvreté et les inégalités). Les services de renseignement furent pionniers dans ce domaine : se désintéressant des racines historiques et politiques du terrorisme, ils le traitèrent comme un simple problème d'identification de suspects et de récolte d'informations en continu. Surtout, du renseignement à la vie quotidienne - et retour ! -, un nouveau système de gouvernance s'installe : la "régulation algorithmique", qui menace, plus que notre vie privée, nos libertés mêmes. A-t-on encore besoin de lois quand on dispose de capteurs numériques qui analysent notre comportement ? Et, tandis que l'"informationnalisation" de la société rend l'individu totalement transparent, l'Etat et les multinationales sont quant à eux libres de poursuivre tranquillement leurs desseins, dans la plus grande opacité. Contrairement à ce que certains prédisaient, les nouvelles technologies n'ont altéré ni les rapports de pouvoir ni la concentration au sein du système capitaliste : elles pourraient même, à brève échéance, les renforcer. La technologie est donc devenue une affaire beaucoup trop grave pour être laissée aux informaticiens, aux entrepreneurs et aux gouvernants. "